Sau Chiến tranh thế giới thứ hai (1939–1945), John F. Kennedy bắt đầu tham gia chính trường (một phần là để thế vào chỗ trống để lại bởi cái chết của người anh, Joseph P. Kennedy, Jr., được cả Gia tộc Kennedy đặt nhiều kỳ vọng). Năm 1946, khi James Michael Curley rời bỏ ghế dân biểu tại một hạt bầu cử có đông cử tri ủng hộ đảng Dân chủ để đảm nhiệm chức vụ thị trưởng thành phố Boston, Kennedy quyết định ra tranh cử và đánh bại đối thủ thuộc Đảng Cộng hòa với kết quả sít sao. Sau đó, ông tái đắc cử hai lần.

Năm 1952, Kennedy ra tranh ghế thượng nghị sĩ với khẩu hiệu "Kennedy sẽ làm nhiều hơn cho Massachusetts." Ông bước vào thượng viện sau khi đánh bại thượng nghị sĩ đương nhiệm thuộc đảng Cộng hòa Henry Cabot Lodge, Jr. với cách biệt 70.000 phiếu. Tại đây, Kennedy khôn khéo né tránh không chỉ trích chiến dịch chống Cộng sản và săn đuổi gián điệp Xô viết trong chính quyền gây nhiều bất bình và tranh cãi của thượng nghị sĩ Joseph McCarthy. Có lẽ vì McCarthy đang được yêu chuộng tại Massachusetts, và vì McCarthy là bạn của ông, của cha ông, đang hẹn hò với các em gái của ông và em trai ông, Robert F. Kennedy, có một thời gian ngắn làm việc cho McCarthy. Mặc dù Kennedy, vì bệnh tật, vắng mặt khi thượng viện biểu quyết 65 – 22 phiếu khiển trách McCarthy, Kennedy vẫn bị chỉ trích bởi những người chống McCarthy như Eleanor Roosevelt "lẽ ra ông (Kennedy) nên tỏ ra can đảm hơn, thay vì chỉ lo bảo toàn sự nghiệp chính trị của mình".

Ngày 12 tháng 9 năm 1953, Kennedy kết hôn với Jacqueline Bouvier. Trong hai năm sau đó, Kennedy phải chịu giải phẫu cột sống vài lần, kề cận với cái chết (suốt cuộc đời mình, ông đã bốn lần chịu lễ xức dầu thánh – thánh lễ dành cho người hấp hối – theo nghi thức Công giáo), và thường xuyên vắng mặt tại thượng viện vì bệnh tật. Trong thời gian này, Kennedy cho xuất bản Profiles in Courage (Gương can đảm nơi Nghị trường), tôn vinh bảy thượng nghị sĩ Hoa Kỳ đã dám chấp nhận những tổn thất trong sự nghiệp chính trị để bảo vệ niềm tin của mình. Tác phẩm này được trao tặng Giải thưởng Pulitzer năm 1957 cho thể loại tiểu sử.

Năm 1956, Kennedy vận động Đại hội toàn quốc đảng Dân chủ cho vị trí ứng cử viên phó tổng tống, song đại hội chọn thượng nghị sĩ Estes Kefauver từ tiểu bang Tennessee thay vì Kennedy. Dù vậy, những nỗ lực này đã giúp củng cố tiếng tăm của vị thượng nghị sĩ trẻ tuổi trong vòng Đảng Dân chủ.